Cross-platform accelerated machine learning. Built-in optimizations speed up training and inferencing with your existing technology stack.
ONNX Runtime AI (https://onnxruntime.ai/) 是一個由微軟開發的開源機器學習推理平台。它專注於優化和加速來自各種框架（例如 ONNX、PyTorch 和 TensorFlow）的機器學習模型的推論。
ONNX Runtime AI 提供：
* **高性能：** 高效的推論，利用多個後端（例如 CPU、GPU 和 FPGA）實現最佳性能。
* **跨平台：** 支援 Windows、Linux、MacOS 和雲端平台。
* **易於使用：** 簡單的 API 和工具，簡化模型部署和推論。
* **客製化：** 可擴充的架構，允許用戶自定義並整合自定義算子和後端。
ONNX Runtime AI 廣泛應用於：
* **邊緣裝置：** 低功耗裝置上的機器學習推論。
* **雲端服務：** 擴充雲端部署的機器學習推論。
* **模型優化：** 加速和優化機器學習模型的效能。
* **研究與開發：** 探索和評估機器學習模型的推論能力。